When More Documents Hurt RAG: Mitigating Vector Search Dilution with Domain-Scoped, Model-Agnostic Retrieval
更多文档如何伤害 RAG:领域限定检索缓解向量搜索稀释
🧭 RAG 检索增强生成 · 向量搜索稀释与领域限定检索 ★ 深度解读
University of Wyoming
发现大规模异质文档库中的向量搜索稀释问题,提出基于元数据的领域限定检索显著提升精度,指出多智体编排存在精度-忠实性悖论。
📌 工作参考价值(4 点)
- 利用业务元数据做检索范围限定:当知识库规模大、类别多(如商品文档、售后手册、政策库混合),可借鉴文档类型、类目等现有元数据在查询时过滤索引,能避开密集检索的区分力下降,提升召回精度。工程上轻量级,直接复用已有的字段,不用重新标注。
- 路由模块实用设计:先正则快速匹配,失败再调用 LLM 零样本分类;进一步可训练一个轻量分类器(如 BGE-M3 + 线性层)替代 LLM 路由,在准确性(+28pt)和成本上更优。对于电商搜索或 Agent 工具选择,这种容错路由策略可直接复用。
- 多智体编排小心“忠实度陷阱”:在商业 API 模型上多工具调用可能导致生成忠实度急剧下降(如 Claude 0.25→0.01),优先使用单次检索+单次生成的架构,仅当领域间强隔离且使用开源模型(如 Qwen、DeepSeek)时才考虑多轮调度,否则得不偿失。
- 评测体系需同时关注检索与生成:单看检索精度(P@10)提升可能掩盖生成忠实度退化,需同时监控 RAGAS faithfulness。对于电商问答、产品推荐文案生成等场景,这一点可避免上线后隐式错误。